美國 AI 公司 Anthropic 近日向美國國會提交一份 AI 安全法案草案，建議政府應有權阻止可能造成大規模死傷或巨額損失的危險 AI 模型發布，同時呼籲加強監管以應對 AI 發展帶來的潛在風險，包括新型網路威脅與對勞動市場的影響。
美國人工智慧（AI）公司 Anthropic 近日向美國國會議員提出一份 AI 安全法案草案，旨在呼籲政府應有權阻擋可能造成大規模死傷或經濟損失的危險 AI 模型發布。此舉顯示 AI 產業在快速發展的同時，對潛在風險的擔憂日益加劇。
根據《Deccan Chronicle》報導，Anthropic 提出的草案建議，若某個 AI 模型被認定可能立即造成超過 50 人死亡或受傷，或導致超過 10 億美元的損害，美國政府應能阻止其發布。這些潛在威脅包括 AI 模型製造或釋放生物武器、AI 失控，以及網路攻擊等。該公司發言人指出，這項提案是 Anthropic 自今年 6 月以來，持續向聯邦與州政府議員倡議的「先進 AI 框架」之具體體現。
該法案草案還要求 AI 製造商必須測試其模型並公開測試結果，同時允許獨立評估者定期審查模型。Anthropic 表示，這些是「明智的政策」，相信國會應採取行動。然而，《Deccan Chronicle》也提到，現任總統川普（Donald Trump）政府迄今已拒絕了加強監管的呼籲。
Anthropic 共同創辦人 Jack Clark 上週六在曼谷舉行的國際貨幣基金（IMF）與世界銀行年會上表示，快速進步的 AI 能力將加速各領域的變革。Clark 強調，需要國際合作來為 AI 制定「不尋常且嚴肅的規則」，並警告政策制定者採取行動的時間窗口正在縮小。他引用 Anthropic 內部 AI 模型預測，在特定條件下，AI 可能在 2030 年前將美國經濟產出提高近 50%，達到 44 兆美元。Clark 同時警示，利用 AI 進行科學研究也可能導致誤用，例如生物及網路武器等，需要最嚴格的人為監督與透明度。
AI 應用帶來營運變革與產業調整
除了對外部監管的呼籲，Anthropic 內部營運也正因 AI 的廣泛應用而發生轉變。根據《mint》與《CIOL》報導，Anthropic 的初級技術職位招聘比例大幅下降，從 27% 降至 9%；自 2025 年初以來，技術部門的初級員工佔比從 21% 滑落至 14%。這顯示許多基礎的程式編寫、偵錯與技術維護工作正逐步被自動化系統取代。至 2026 年 8 月，由員工指導的 AI 系統活躍工時已是人類員工的六倍。
這種轉變也影響了招聘標準，公司開始更重視應徵者的軟技能和戰略能力，而非單純的技術專長。儘管初級職位減少，Anthropic 的整體員工人數仍持續成長，技術職位的絕對招聘人數也有所增加，顯示公司正朝向不同的人才結構調整。
網路安全新威脅與客戶合作變動
Anthropic 也在網路安全領域發出警訊。該公司警告，AI 的進步可能使自我複製的惡意軟體（AI 蠕蟲）更具實用性，可能在智慧電視、攝影機等聯網裝置間傳播，適應不同硬體並獨立運行。研究指出，參數約 300 億或更小的 AI 模型，若依循歷史發展進程，可能在 2026 年底前達到發動此類攻擊所需的能力。
然而，Anthropic 在商業合作方面也面臨挑戰。AI 程式開發平台 Replit 近日宣布，已將 OpenAI 列為其首選 AI 模型供應商。Replit 執行長 Amjad Masad 表示，OpenAI 的模型在性能和成本上，對 Replit 的需求而言更具優勢，其 Sol 和 Astra 模型在內部基準測試中表現更佳。儘管 Replit 澄清客戶仍可選用 Anthropic 的 Claude 模型，但這項改變意味著 Anthropic 失去了一個曾是其前五大客戶的重要合作夥伴。
在追求利潤的同時，Anthropic 也展現對公共利益的承諾。根據《The Mighty 790 KFGO》報導，Anthropic 計畫將公司 5% 的股份投入一個新的公共利益基金，並可依公司估值增長進一步增加持股比例。此基金將用於支持非營利捐款、對特定族群直接分配，以及處理 AI 對勞工影響的相關計畫，但該基金的股權不會用於在美國或海外的遊說或政治捐獻。這項承諾是 Anthropic 作為一家「公益企業」（public benefit corporation）上市計畫的一部分，旨在平衡利潤與更廣泛的社會利益。
參考來源
-
Anthropic Pitches AI Safety Bill to Lawmakers（Deccan Chronicle）
-
Anthropic co-founder says AI could boost US GDP 50%（Business Day）
-
AI Coding Platform Dumps Anthropic for OpenAI, Says ChatGPT…（International Business Times, Singapore Edition）
-
Anthropic warns AI worms could spread across smart devices a…（Business Upturn）
-
AI automation reshapes recruitment as Anthropic sees entry-l…（mint）
-
Anthropic Cuts Junior Technical Hiring as AI Agents Take on…（CIOL）
-
Anthropic to commit 5% stake to new public benefit fund（The Mighty 790 KFGO | KFGO）